ToolSpace:以工具为中心的长程智能体环境合成框架
🧭 Agent 工具组合与环境合成 ★ 深度解读
Renmin University of China · Fudan University · Shanghai Jiao Tong University
用真实执行轨迹构建加权工具组合图,按需合成环境并生成可回放验证的长程跨域任务
📌 工作参考价值(4 点)
- 用真实调用日志构建工具/服务关系图:在电商/搜索/推荐内部,可将搜索、推荐、商品详情、购物车、优惠券、订单、客服等 API 的相邻调用关系,按 data/state/retry 三类规则确定性挖掘,避免 LLM 主观判断带来的幻觉连接,得到可执行的跨域工作流骨架。
- 长程 Agent 训练数据合成:借鉴 state-aware random walk + rollback,从真实日志图采样跨域工具链,只保留可重放、断言验证通过的 task;可用于生成「搜索→推荐→加购→下单→售后」等多步购物助手任务,保证可执行性和状态一致性。
- 按需环境落地,节省仿真成本:对只读/无状态工具(如商品查询、搜索、推荐)复用录制返回值或缓存,不必为每个环境合成完整数据库;论文显示文件合成量减少 55.3%,适合内部多业务系统大量只读 API 的场景。
- 可验证奖励用于 Agent RL:将断言验证结果作为二元执行奖励,配合 GRPO 做 on-policy RL,可提升长程工具编排;验证脚本同时能防止 SFT 数据污染测试集。
Recursa:迈向递归自改进的基础模型系统
🧭 Agent 多智体递归自改进 ★ 深度解读
Alibaba Research
构建知识仓库引导的多智能体递归自改进系统,无更强模型下将法律领域任务全对率最高提升至 55.0%
📌 工作参考价值(4 点)
- 可复用 harness 设计:给搜索/推荐/广告 Agent 使用 persistent Python REPL + append-only event log。召回、排序、筛选等中间结果留在 Python 变量,只把最终证据回传模型,长链路追踪不必全量进 context;故障诊断时按地址检索历史轨迹,避免上下文爆窗。
- 把领域知识沉淀为可加载 skills:电商新类目冷启动可以先构建类似导航结构,把类目规则、商家文档、商品属性约束浓缩为可加载技能包;每次任务后反思失败案例,将“该找什么证据”和“怎么判断证据是否充分”写成可叠加的 memory/skill,而不是每次从头探索。
- 多 learner 按失败模式拆分优化:不要用一个全局 prompt 大修。按类目、意图、失败原因或技能子集拆分任务,并行做局部改进后合并验证;合并后必须抽样回归已通过任务,避免新编辑造成退化。单 learner 很容易过拟合训练集,生产上推荐拆分+合并+回归。
- 利用无权重更新做快速迭代:在无法频繁微调推荐/搜索模型时,先通过文本化知识仓库快速迭代领域规则与策略,积累到一定程度再作为后续模型训练数据,这与生成式推荐里先沉淀 Semantic ID 或知识卡片再训练模型的路径一致。
EdgeWise:通过选择性云委托将长程智能体带到边缘
🧭 边缘-云端 Agent 协作与选择性模型路由 ★ 深度解读
NVIDIA · Rutgers University
提出EdgeWise框架,让本地SLM作为主求解器,仅在关键步骤选择性委托云LLM,显著降低成本且保持性能
📌 工作参考价值(4 点)
- 在电商/广告等长链路 Agent 工作流(选品、文案生成、数据分析)中,识别关键决策步骤(类似 Write/Edit)并仅对这部分调用大模型,其余用轻量模型处理,可显著降低大模型 API 成本。
- 借鉴 self-delegation 的 RL 训练方式:用轨迹级奖励 + 步骤级 credit assignment,让 SLM 自主学习何时调用大模型,无需额外路由模型;可以用一个轻量 critic 模型提供细粒度优势信号。
- 跨模型协作时,上下文传递不要盲目压缩:全量历史性能最好但成本高,可尝试去掉轻量模型的内部推理只保留执行历史,在性能和成本间取得折中。
- 将路由判断改为连续分数 + 阈值控制,可以灵活调整大模型调用频率,适合业务中根据预算动态平衡成本与效果。
递归环境缩放:面向通用长程智能体的难度递增方法
🧭 Agent 环境难度缩放与课程训练
UESTC · HKUST · CUHK (SZ) · THU · WU
提出 RES 框架,固定任务目标、递归变换信息访问/资源关系/执行依赖,提升环境难度并增强 SFT
📌 工作参考价值(4 点)
- 借鉴 RES 的环境缩放机制做难度课程:在电商 Agent/对话推荐模拟器中,固定任务目标(如找商品、比价)不变,逐步限制信息可见字段、增加资源约束或依赖更多工具调用,生成难但语义一致的训练轨迹。
- execution-grounded checks 相当于自动质检:对生成的难环境不仅检查语法,更用可执行环境验证是否仍可完成,避免产生不可解任务,这对生成 Agent 训练样例有直接参考。
- 递归继承持续累积难度:可把多轮变更叠加,形成难度递增轨迹,用于课程学习或困难样本挖掘,避免每次从头构造。
- 结论显示同轨迹数下 RES 轨迹 SFT 全面优于原始轨迹:在推荐/搜广推 Agent 数据稀缺时,可优先构造变化环境扩充训练集,比单纯堆原始成功轨迹更划算。
Agent实际做了什么?面向长程Agent的基于证据监督方法
🧭 Agent行为监控与证据定位
Gaoling School of Artificial Intelligence, Renmin University of China · Kuaishou Technology
提出EBG训练无关方法,将证据按行为分组并构图为任务导向视图,提升长程Agent关键决策识别与证据定位
📌 工作参考价值(4 点)
- 在电商/广告Agent自动化流程中,可将EBG作为轻量监控层:把Agent动作日志按源链证据聚类为行为节点并构建依赖图,在审核UI中呈现任务导向视图,帮助运营快速定位需要人工验证的环节,避免阅读完整trace。
- EBG训练无关、即插即用,且证据定位增益在长上下文和不同超参数下保持稳定,可直接嵌入现有Agent监控模块,无需额外训练或微调,适合快速上线。
- 借鉴AgentMonBench的两个评估维度(需求-行为对齐、自主决策需验证的意识),在内部构建Agent可靠性测试集,重点考察Agent是否做了需求外的事、是否在关键节点主动请求确认。
- 对搜索/推荐系统中由LLM Agent生成的query或策略,可用EBG将决策与证据(用户日志、商品信息)显式链接,增强可解释性与审计能力,提升人对自动决策的信任。
超越时间戳:面向长程智能体的决策对齐在线策略蒸馏
🧭 长程 Agent 决策对齐的在线自蒸馏 ★ 深度解读
Beihang University · Tsinghua University
提出 ALIGNOPSD,用跨 rollout 决策对齐修正特权监督并用可变决策片段分配 credit,长程 Agent RL 提升 5.5–8.7%
📌 工作参考价值(4 点)
- 在电商导购/搜索式推荐 Agent 的 RLVR 训练中,若用带特权信息的 teacher policy 做 dense 监督,不要按 turn index 对齐 teacher/student;用 thinking trace 的 frozen embedding 余弦做跨 rollout soft matching,再 teacher-force 同一 response,可避免时间戳错配污染 credit。
- 把一次输出作为 credit 最小单位太粗、token 太细;用相邻 turn 的 correspondence profile 的 JSD 变化自动切分决策片段,再在 span 内按证据分配 advantage,更适合“同一个决策跨多轮”的场景(如搜索→点商品→比价→加购中“比价”持续多轮)。
- 优势分配时用 stop-gradient 的权重乘到 group-normalized advantage,不引入额外 distillation loss;KL 正则约束 span/turn 分配不偏离均匀 token measure,训练更稳定。
- 超参默认值:credit temperature T=0.5 跨任务和模型尺度较稳定;thinking similarity threshold 0.7–0.8 较稳;top-K 需按任务调,长轨迹可稍大,短轨迹需更小。
CliffCompaction:面向长程编码智能体的高成本效率上下文压缩
🧭 Agent 长程上下文压缩与成本优化
Carnegie Mellon University · Bosch Center for AI
一种只截断/丢弃、不重写原文的自动压缩法,在受限上下文下最多降低50%成本并保持或提升编码Agent性能
📌 工作参考价值(4 点)
- 在需要长会话/多轮 Agent 的场景(如导购、客服、推荐解释)中,上下文压缩优先采用“只截断/丢弃原始内容、不重写”,避免摘要改写引入信息偏差,可显著降低 API 成本且保持质量。
- 强制“绝不压缩已压缩内容”,每轮压缩都基于原始会话/文档,防止跨轮次的上下文漂移累积,适合超过百万 token 的持续学习/多轮交互。
- 将压缩逻辑做成 API proxy,不改动现有 agent scaffold 即可接入 Claude Code、Codex 等,业务侧可快速对现有推荐/广告 Agent 工作流做成本优化和 A/B 测试。
- 用相同预算做 test-time scaling(如并行采样多个推荐解释/策略)时,压缩带来的 per-rollout 节省让更多采样成为可能,可能以更低成本获得性能提升。
根因归因是一个搜索问题:面向长时程 Agent 失败的持续搜索
🧭 Agent 失败根因归因与持续搜索
Scale AI
提出 Continual Search 迭代框架,通过多轮唤醒 LLM 法官持续搜索未解决证据,显著提升长轨迹 Agent 失败根因归因 F1
📌 工作参考价值(4 点)
- 诊断长流程 Agent/推荐链路失败时,不要依赖一次性 LLM 判断;把 RCA 改造成多轮搜索,每轮强制模型找出“尚未解释的证据”,直到证据链闭环。
- 与其堆大模型,不如把搜索过程做扎实:论文显示同模型家族内低阶模型配合 Continual Search 可反超高阶模型,成本可控且效果更好。
- 业务上可用于电商 Agent 执行日志、广告投放链路、搜索推荐多阶段 pipeline 的故障归因:失败信号通常稀疏且跨步骤,需要主动回溯而不是只看最后一步。
- 建议构建类似 MegaRCA-Mix 的长时程、执行密集型测试集,用真实人工标注的失败 trial 评估诊断能力,避免只测短轨迹造成虚假达标。
递归式经验-工作记忆演化:面向长程 Agent 的验证门控记忆架构
🧭 Agent 长期记忆与递归自改进 ★ 深度解读
NUS · Stanford University · University of Oxford · Princeton University
Recuris 用工作记忆驱动技能调用,将失败定位到记忆组件并验证门控演化,在长程任务上提升成功率
📌 工作参考价值(4 点)
- 长程电商/客服 Agent 的状态管理:把会话目标拆成 pending/done/blocked 的 verified state,每个 goal 带支持证据;只在执行事件(如确认下单、改地址、退款调用前)由 harness 注入对应技能,而不是把全量 SOP 或工具说明放 prompt。全量注入在本实验中反而比无技能更差(模型控制 65.6 vs 无技能 82.0),说明“何时调用”比“内容多少”更关键。
- 失败复盘与技能库更新:记录结构化 trace(状态→调用技能→动作→环境反馈→提案状态→检查器判定),用固定 Meta-Agent 把失败归因到技能缺失、状态更新错、调用时机错、校验器误判四类组件;只修补命中组件,再经 held-out 验证门控。可以迁移到 agent 评测流水线或 SOP 迭代,避免全量重写记忆。
- 验证门控的必要性:候选补丁必须在修复源失败的同时不回归 anchor tasks。电商技能库更新时也建议保留历史成功案例作为回归集,避免新规则破坏已有能力。
- Test-time adaptation:对高价值单任务(如大订单异常、投诉处理)可用多次尝试 + 一位 verifier 的反馈,在局部更新经验记忆后重试;但一定要与 budget-matched 简单重试对照,否则会混淆增益来源。
HyMem:通过信息隔离实现长程智能体的分层上下文管理
🧭 Agent 长程上下文分层隔离 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Nanjing Artificial Intelligence Research of IA
提出训练无关的分层上下文隔离框架 HyMem,将规划、执行、子任务推理与结构化记忆分离,显著提升长程 agent 的 Pass@1
📌 工作参考价值(4 点)
- 把 planner 与 executor 上下文彻底拆开,执行结果只回传 schema 化 RESULTS/RETURN,原始工具输出、重试和中间推理留在临时 context;适合电商导购 Agent 在多轮搜索与商品比较时,防止详情页噪声淹没主任务。
- 复杂子任务用独立的 isolated reasoning session 处理,返回结论+证据+confidence,主 planner 不累积推理过程;可直接用于优惠计算、多条件筛选、价格/评论冲突验证等需要多跳分析的导购场景。
- 结构化记忆分三类:episode/working/tool memory,fold 时只保留里程碑、当前目标和可复用工具经验;可用于长会话用户偏好记忆与跨会话召回。
- 确定性 fold triggers(planner ctx 利用率>0.99、连续失败>=3、tool calls>=10 等)可照搬,训练无关、即插即用;适合在现有 ReAct/搜索推荐 Agent 上快速压测上下文稀释问题。
HINT-SD:面向长程智能体的目标化后见自蒸馏
🧭 长程 Agent 后训练 · 目标化后见蒸馏 ★ 深度解读
KAIST · DeepAuto.ai
通过选择失败相关动作进行自蒸馏,在不损失效率的前提下为长程 LLM Agent 提供精准过程监督
📌 工作参考价值(4 点)
- 选择性过程监督:长程 Agent RL 训练中不要均匀地对所有步骤蒸馏反馈。先用策略自身对失败轨迹进行后见分析(Hindsight Analyzer),仅挑选出导致失败的关键步骤,再对这些步骤进行带反馈的自蒸馏,避免大量正确或无关步骤的噪声更新。在电商购物助手、多轮工具调用等场景中,可直接复刻“复盘→定位错误→精准纠正”的范式。
- 反馈放置的时机很关键:实验表明,将纠正反馈插入到发生错误的动作之前(而非整个轨迹的开头),教师与学生的上下文分布更匹配,纠正效果明显更好。在实施反馈条件蒸馏时,应将反馈准确地放置在相关步骤的上下文中,避免因前缀不同导致分布错位。
- 自蒸馏作为本地化的教师:无需外部大模型,训练中的 EMA 策略本身即可充当反馈生成器,节省成本。这在资源有限的场景(如在自有模型上持续训练 Agent)中尤为实用,可作为一个轻量、自包含的在线蒸馏组件集成进训练流程。
- 效率启发:选择性蒸馏大幅缩短训练步时和显存消耗(2.26× 步时降低,1.48× 显存降低)。对于需要批量处理大量长对话的推荐 / Agent 系统,采用“先判断哪些步骤需要学习”的策略可显著提升迭代效率和资源利用率。